1
Dinamika Ketidakpastian dan Informasi
MATH005Lesson 9
00:00
Bayangkan dunia di mana masa depan bukanlah jalur yang tetap, melainkan jaringan berkilauan dari kemungkinan. Memahami Dinamika Ketidakpastian adalah menghubungkan celah antara evolusi stokastik—bagaimana sistem berpindah dari satu keadaan ke keadaan lain—dengan pengukuran 'kebaruan' atau kejutan yang melekat pada transisi tersebut.

1. Arsitektur Transisi Keadaan

Pertimbangkan logika cuaca. Jika kita mengasumsikan hujan hari ini adalah satu-satunya faktor yang memengaruhi besok, kita memasuki ranah dinamika Markov. Hal ini digambarkan secara elegan dalam CONTOH 2a:

Misalkan apakah hujan akan turun besok tergantung hanya pada kondisi cuaca sebelumnya melalui apakah sedang hujan hari ini. Jika hujan hari ini, maka hujan besok dengan probabilitas $\alpha$; jika tidak, hujan besok dengan probabilitas $\beta$.

Hal ini menciptakan matriks transisi $P$ di mana kita dapat menghitung aliran probabilitas di masa depan menggunakan Identitas Chapman-Kolmogorov:

$$P_{ij}^{(2)} = \sum_{k=0}^{M} P_{kj}P_{ik}$$

2. Ritme Kedatangan

Ketidakpastian bukan hanya tentang di mana yang kita tuju, tetapi kapan peristiwa terjadi. Dalam proses Poisson, kita melacak kedatangan diskret (seperti gempa bumi atau peluruhan radioaktif) sepanjang waktu.

  • Waktu Antarkedatangan: Untuk proses Poisson, misalkan $T_1$ menunjukkan waktu terjadinya peristiwa pertama. Untuk $n > 1$, misalkan $T_n$ menunjukkan waktu yang berlalu antara peristiwa ke-$(n-1)$ dan ke-$n$.
  • Stasioneritas: Rangkaian $\{T_n, n=1, 2, \ldots\}$ terdiri dari variabel eksponensial yang saling independen, ditentukan oleh laju $\lambda$.

3. Informasi sebagai Pengurangan Kejutan

Teori informasi, yang dipelopori oleh Claude Shannon, mengukur ketidakpastian. Teori ini didasarkan pada fondasi aljabar yang indah, khususnya Aksioma 4:

Aksioma 4: $S(pq) = S(p) + S(q)$ untuk $0 < p \le 1, 0 < q \le 1$

Aksioma ini menyiratkan bahwa kejutan dari dua peristiwa independen adalah jumlah kejutan individu mereka, yang langsung mengarah pada definisi Entropi Shannon:

$$H(X) = -\sum_{i=1}^n p_i \log_2(p_i)$$

🎯 Intisari Utama
Dinamika mendefinisikan aturan permainan (probabilitas transisi), sementara Entropi mengukur seberapa banyak kita belajar saat benar-benar memainkan permainan (pembelajaran informasi). Jika $\alpha=1$ dan $\beta=1$ dalam model cuaca kita, sistem bersifat deterministik; entropi bernilai nol karena 'berita' tidak memberikan informasi baru.